Structured Inference with Large Language Gibbs
基于大型语言模型吉布斯采样的结构化推理
🧭 LLM 结构化概率推理
University of Edinburgh · CIFAR
用 LLM 的条件分布作 MCMC 转移算子迭代采样结构化变量，避免一次生成顺序偏差
📌 工作参考价值（4 点）
- 在推荐系统中需要生成结构化对象时（如用户属性填充、搭配生成、解释文本），可以用 LLM 的条件分布迭代修正初始生成，提升一致性，避免一次自回归导致的顺序偏差。
- 若业务中存在多个相互依赖的变量（如商品多字段补全、会话上下文中用户意图推断），可采用 Gibbs 采样式多次查询 LLM，利用各个局部条件相互校准，得到更符合全局分布的样本。
- 工程上，可将此方法封装为一种“反思-修正”循环，适用于需要高度一致性和概率连贯性的场景，如对话推荐中的实体消歧、属性约束满足。
- 注意该方法依赖于 LLM 提供可靠的条件分布，实际部署时需权衡计算开销与生成质量，可优先在离线数据增强或高价值交互中尝试。